检索结果

期刊

出版年

关键词

Please wait a minute...

选择:

导出引用
EndNote Ris BibTeX

显示/隐藏图片

Select

1. 面向自然语言处理任务的预训练模型综述

刘睿珩, 叶霞, 岳增营

《计算机应用》唯一官方网站 2021, 41 (5): 1236-1246. DOI: 10.11772/j.issn.1001-9081.2020081152

摘要（893）

PDF （1296KB）（3013）

近年来，深度学习技术得到了快速发展。在自然语言处理（NLP）任务中，随着文本表征技术从词级上升到了文档级，利用大规模语料库进行无监督预训练的方式已被证明能够有效提高模型在下游任务中的性能。首先，根据文本特征提取技术的发展，从词级和文档级对典型的模型进行了分析；其次，从预训练目标任务和下游应用两个阶段，分析了当前预训练模型的研究现状，并对代表性的模型特点进行了梳理和归纳；最后，总结了当前预训练模型发展所面临的主要挑战并提出了对未来的展望。

参考文献 | 相关文章 | 多维度评价

Select

2. 基于相空间重构的自适应残差修正支持向量回归预测算法

李俊山, 仝奇, 叶霞, 许元

计算机应用 2016, 36 (11): 3229-3233. DOI: 10.11772/j.issn.1001-9081.2016.11.3229

摘要（505）

PDF （881KB）（461）

针对模拟电路故障预测存在的非线性时间序列预测问题和传统支持向量回归（SVR）多步预测时出现的误差累积问题，提出了一种基于相空间重构的自适应残差修正SVR预测算法。首先，分析了SVR多步预测方法对时间序列趋势预测的意义和多步预测导致的误差积累问题；其次，将相空间重构技术引入SVR预测中，对表征模拟电路状态的时间序列进行相空间重构，并进而进行SVR预测；然后，在对多步预测过程中产生的误差累积序列进行二次SVR预测的基础上，实现对初始预测误差的自适应修正；最后，对所提算法进行了预测仿真验证。仿真验证和模拟电路的健康度预测实验结果表明，所提算法能有效降低多步预测导致的误差积累，显著提高回归估计精度，更好地预测模拟电路状态的变化趋势。

参考文献 | 相关文章 | 多维度评价